Là một thành viên của Nhà Capet, Philip được sinh ra trong pháo đài thời trung cổ của Fontainebleau (Seine-et-Marne) của Philip III tương lai, gọi là The Bold, và người vợ đầu tiên của ông, Isabella xứ Aragon.[5] Ông là con trai thứ hai trong bốn người con trai sinh ra. Cha ông là người thừa kế của Pháp thời bấy giờ, là con trai cả của Vua Louis IX (còn được gọi là Thánh Louis).

Vào tháng 8 năm 1270, khi Philip lên hai tuổi, ông nội ông qua đời khi đang ở trong Thập tự chinh do mắc bệnh đại dịch, cha ông trở thành vua và anh trai Louis của ông trở thành người thừa kế. Chỉ năm tháng sau, vào tháng 1 năm 1271, mẹ của Philip qua đời sau khi ngã ngựa; Isabella đang mang thai đứa con thứ năm vào thời điểm đó và chưa được trao vương miện bên cạnh chồng. Vài tháng sau, một trong những em trai của Philip, Robert, cũng qua đời. Cha của Philip cuối cùng đã lên ngôi vua tại Rheims vào ngày 15 tháng 8 năm 1271. Sáu ngày sau, Philip III lại kết hôn; Mẹ kế của Philip là Marie, con gái của công tước xứ Brabant.

Vào tháng 5 năm 1276, anh trai của Philip, Louis qua đời, và Philip 8 tuổi trở thành người thừa kế. Người ta nghi ngờ rằng Louis đã bị đầu độc, và mẹ kế của Philip, Marie của Brabant, đã bị nghi xúi giục giết người. Một lý do cho những tin đồn này là việc nữ hoàng đã sinh con trai đầu lòng vào tháng Louis qua đời.[6] Tuy nhiên, cả Philip và người em trai Charles còn sống sót đều sống tốt đến tuổi trưởng thành và nuôi nấng gia đình lớn của riêng mình. Thậm chí con trai của em trai ông còn lên làm vua.

Phần học thuật trong giáo dục của Philip được giao cho Guillaume d'Ercuis, người bạn quân sự đồng hành của cha ông.[7]

Sau cuộc Thập tự chinh Aragon không thành công của cha ông nhằm chống lại Peter III của Aragon kết thúc vào tháng 10 năm 1285, Philip có thể đã đàm phán một thỏa thuận với Peter về việc rút quân đội Thập tự chinh an toàn.[8] Hiệp ước này được chứng thực bởi các biên niên sử xứ Catalan.[8] Joseph Strayer chỉ ra rằng một thỏa thuận như vậy có lẽ là không cần thiết, vì Peter có rất ít lợi ích từ việc khiêu khích một trận chiến với người Pháp rút lui hoặc chọc giận Philip trẻ, người có quan hệ thân thiện với Aragon thông qua mẹ anh.[9]

Philip kết hôn với Nữ hoàng Joan I của Navarre (1272-1305) vào ngày 16 tháng 8 năm 1284. Hai người đã dành hết cho nhau tình cảm và hết lòng với nhau nên Philip đã từ chối tái hôn sau sự ra đi đột ngột của Joan vào năm 1305, bất chấp những phần thưởng chính trị và tài chính tuyệt vời.[10] Lợi ích chính trị chính của cuộc hôn nhân là sự thừa kế của Joan đối với Champagne và Brie, nằm liền kề với hoàng gia Demesne ở Ile-de-France, và do đó, đã được hợp nhất với vùng đất của nhà vua, mở rộng được vương quốc của ông.[11]Việc sáp nhập tỉnh Champagne giàu có cũng như vương quốc Navarre vào Ngai vàng Pháp đã làm tăng đáng kể doanh thu của hoàng gia, xóa bỏ quyền tự trị của một mối quan hệ bán độc lập lớn và lãnh thổ hoàng gia mở rộng về phía đông.[11] Philip cũng đã giành được Lyon cho Pháp vào năm 1312.[12]

Navarre vẫn ở trong liên minh cá nhân với Pháp, bắt đầu vào năm 1284 dưới thời Philip và Joan, cũng như những con trai của họ trong 44 năm. Vương quốc Navarre ở Pyrenees nghèo nhưng có tầm quan trọng chiến lược.[11] Khi vào năm 1328, dòng Capetian bị tuyệt chủng, vua của vương triều Valois mới, Philip VI, đã cố gắng sáp nhập vĩnh viễn các vùng đất vào Pháp, đền bù cho người yêu sách hợp pháp, Joan II của Navarre, (cháu nội và là người thừa kế cao cấp của Philip IV), với những vùng đất khác ở Pháp. Tuy nhiên, áp lực từ gia đình của Joan II đã khiến Phillip VI giao lại vùng đất cho Joan vào năm 1329, và những người cai trị Navarre và Pháp lại là những cá nhân khác nhau và bị tách ra, mãi cho đến khi Henry III của Navarre lên ngôi vua Pháp thì cả 2 vương quốc này mới được sáp nhập trở lại.